iT邦幫忙

2024 iThome 鐵人賽

DAY 0
0

昨天學了建立與儲存提示詞,今天要試試用Open WebUI上提供的Ollama模型。

Open WebUI上可以建立自己的模型,根據設定的模型功能描述與系統提示詞(如敘述模型角色特徵、可以給予使用者什麼樣的幫助等)即可建立模型。

進階設定參數可以根據溫度、上下文長度、最大token數等參數去做調整,使模型更完善。

這次只會使用到Open WebUI上提供的Ollama模型來進行對話,讓我們開始吧!

 步驟一: 進入Open WebUI社群模型網站
跟昨天一樣可以從工作區進入設置模型的介面,接著點選【+】號進入網站
https://ithelp.ithome.com.tw/upload/images/20241012/20168005C2sC9WbRW2.png

 步驟二: 選擇欲使用之模型
若對模型沒什麼概念,網站上有各種不同功能的模型像是程式陪伴訓練、照片生成、分析等功能。
可以先瀏覽想使用的模型,再點進去按【get】做使用。

以下為Open WebUI模型瀏覽頁面:
https://ithelp.ithome.com.tw/upload/images/20241012/20168005qEIYMfyxdh.png

點選欲使用模型,此例使用Mental Health assistant心靈健康模型來使用。可以在網頁上看到模型使用的語言模型以及系統提示詞,藉此了解模型功能。
https://ithelp.ithome.com.tw/upload/images/20241012/201680059C5Hk7Z79u.png

 步驟三: 在Open WebUI上開啟該模型
貼上Open WebUI本地端的URL(http://localhost:3000),並點選Import將模型匯入。
https://ithelp.ithome.com.tw/upload/images/20241012/20168005HpvozZox0U.png

模型在Open WebUI上匯入之畫面。
https://ithelp.ithome.com.tw/upload/images/20241012/20168005S8jNlrUpyq.png

點選【儲存並建立】即可成功將模型匯入。
https://ithelp.ithome.com.tw/upload/images/20241012/20168005OOWaYu8Hxl.png

步驟四: 使用模型進行對話
回到對話框,在左上角選擇模型的地方點選Mental Health assistant模型,輸入指令即可開始對話,也可以依照建議的提示詞進行對話。
https://ithelp.ithome.com.tw/upload/images/20241012/20168005REBf9LxP6d.png

成功進行對話的畫面如下 :)
https://ithelp.ithome.com.tw/upload/images/20241012/20168005YDYMAOiea0.png


上一篇
Day14 建立快速命令翻譯中英文
下一篇
Day16 利用Open WebUI載入外部文件檢索
系列文
除了ChatGPT,你了解生成式AI的其他應用嗎?30天從零到精通的學習與實作30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言